ChatGPT: Αόρατο υδατογράφημα σε κείμενα στην ΕΕ - Η ανακοίνωση της OpenAI

Αόρατο υδατογράφημα θα ακολουθεί τα κείμενα του ChatGPT στην Ευρωπαϊκή Ένωση, έπειτα από μια σημαντική αλλαγή που δρομολογεί η OpenAI. Η εταιρεία ανακοίνωσε την Δευτέρα, ότι τα κείμενα που παράγονται μέσω της δημοφιλούς εφαρμογής, θα αποκτήσουν «υπογραφή» που θα τα ακολουθεί.

Ιδιαίτερο χαρακτηριστικό της νέας αλλαγής, είναι ότι το υδατογράφημα θα παραμένει ενσωματωμένο στο κείμενο ακόμη και όταν ο χρήστης το αντιγράφει και το επικολλά σε άλλη εφαρμογή.

Σύμφωνα με το TechCrunch, η εταιρεία ανακοίνωσε ότι η εφαρμογή της αόρατης ψηφιακής υπογραφής θα εφαρμοστεί σε όλα τα κείμενα που δημιουργούνται από ChatGPT και το Codex στην ΕΕ με στόχο την συμμόρφωση στις απαιτήσεις του ευρωπαϊκού κανονισμού για την τεχνητή νοημοσύνη

Οι νέοι κανόνες διαφάνειας, που τέθηκαν σε ισχύ στις 2 Αυγούστου, απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να επισημαίνουν το περιεχόμενο που δημιουργούν τα συστήματά τους, ώστε να μπορεί να αναγνωρίζεται από κατάλληλα τεχνολογικά εργαλεία.

Πότε θα εφαρμοστεί

Η εφαρμογή του συστήματος θα ξεκινήσει σταδιακά τις επόμενες εβδομάδες και θα αφορά τους επιλέξιμους χρήστες όλων των συνδρομητικών προγραμμάτων του ChatGPT και του Codex στην Ευρωπαϊκή Ένωση.

Αντίθετα, οι προγραμματιστές που χρησιμοποιούν το API της OpenAI σε οποιαδήποτε χώρα θα μπορούν να ενεργοποιούν προαιρετικά την τεχνολογία σε επιλεγμένα μοντέλα. Το νέο σύστημα, με την ονομασία textGrain, δεν προσθέτει κάποιο ορατό σύμβολο, κρυφό χαρακτήρα ή ειδικό κώδικα στο κείμενο. Αντίθετα, επηρεάζει ανεπαίσθητα τις επιλογές λέξεων που πραγματοποιεί το μοντέλο κατά τη δημιουργία μιας απάντησης.

Μέσα από εκατοντάδες τέτοιες μικρές διαφοροποιήσεις σχηματίζεται ένα στατιστικό μοτίβο, το οποίο δεν γίνεται αντιληπτό από τον αναγνώστη, αλλά μπορεί να αναγνωριστεί από ειδικό λογισμικό ανίχνευσης.

Το υδατογράφημα δεν θα αποκαλύπτει την ταυτότητα του χρήστη

Η τεχνολογία αναπτύχθηκε με τη συμμετοχή ερευνητών από τα πανεπιστήμια της Πενσιλβάνια και του Γέιλ και βασίζεται στη χρήση ενός μυστικού ψηφιακού κλειδιού. Επειδή η σήμανση βρίσκεται ουσιαστικά στις ίδιες τις λέξεις και στον τρόπο επιλογής τους, μπορεί να διατηρείται ακόμη και μετά από αντιγραφή και επικόλληση του κειμένου.

Η OpenAI διευκρινίζει ότι το υδατογράφημα δεν αποκαλύπτει την ταυτότητα του χρήστη, ενώ οι δοκιμές της δεν έδειξαν ουσιαστική υποβάθμιση της απόδοσης των μοντέλων.

Παρά τις δυνατότητές της, η τεχνολογία παρουσιάζει σημαντικούς περιορισμούς. Σύμφωνα με τις δοκιμές της εταιρείας, η αντικατάσταση μόλις του 10% των λέξεων με συνώνυμες μείωσε το ποσοστό επιτυχούς ανίχνευσης από περίπου 92% σε 66%. Ακόμη μεγαλύτερες δυσκολίες παρουσιάζονται σε σύντομα κείμενα, μαθηματικές απαντήσεις και μεταφράσεις, όπου η αναγνώριση του ψηφιακού αποτυπώματος γίνεται λιγότερο αξιόπιστη.

Για τον λόγο αυτό, η πρόσβαση στο εργαλείο ανίχνευσης θα περιοριστεί αρχικά σε εγκεκριμένους ερευνητές και εξειδικευμένους οργανισμούς.

Η OpenAI ξεκαθαρίζει επίσης ότι η απουσία υδατογραφήματος δεν αποτελεί απόδειξη ανθρώπινης συγγραφής, καθώς ένα κείμενο μπορεί να έχει τροποποιηθεί σημαντικά ή να προέρχεται από διαφορετικό σύστημα τεχνητής νοημοσύνης.